Tak nějak, to je podobný jako výzva typu ­"přestaňte vyvíjet zbraně­".

"Vývoj AI je nutné co nejvíc urychlit ­"

A přitom nechat AI zničit lidstvo, že? Nebo se nechat zotročit naším vlastním výtvorem.

No jestli se někdo nechá zotročit AI, dobře mu tak.

Otazka je jestli bude mit moznost nenechat se zotrocit. V podstate cely tento soucasny kapitalisticky ekonomicky system je zotrocovanim lidi ­- a jeden ze zpusobu jak zotrocit lidi je ucinit je nekonkurenceschopnymi, protoze pak uz si vydelaji maximalne tak na preziti ­(a vyse preziti je dana zivotnimi naklady konkurentu­).

Pokud nekdo prijde se stroji, ktere zlikviduji potrebnost ruznych profesi, tak se tito nepotrebni pracovnici stanou otroky, nez si zase najdou nejake misto kde je nebudou ohrozovat lepsi ­(strojni­) pracovnici.

V podstate, aby bylo nasazeni ­(jakychkoliv­) novych technologii sporicich praci pro vsechny strany win­-win, tak by musela existovat dan z pridane nadhodnoty ­- prace stroju. V realite je to zcela opacne, mame zvraceny system ­- kdyz nekdo nejakou praci uspori ­- podnikajici subjekty ­- tak si jeste snizi zaklad dani o naklady na tyto stroje. Treba ze na prodejny nainstaluji automaticke pokladny a zredukuji prodavace. Vyrazit pak nejake dane z takovych businessu se da az pomoci DPH pri prodeji a treba dani ze zisku ­(ktery se ale da schovat­). Jinak receno, nevidim primou dan z prace stroju, ktera by kompenzovala ubytek pracovnich prilezitosti a automatizaci spolecnosti. Muzete argumentovat, ze jine dane tento transfer bohatstvi smerem k vyhozenym pracovnikum udelaji. Zajima me jake...

Vedle businessu ziji jednotlivi lide, kteri pak vlastne plati dane za tuto novou automatizaci, nebo stroje prispivaji do ruznych statnich pojisteni lidi? I v pristupu ke zdrojum ktere jsou omezene maji pak automatizatori nerovnou pozici ­- kupuji si zdroje a davaji si je do nakladu, zatimco lide je plati ze zdanenych penez.

To ze tato civilizace, zalozena na pokroku, ktery poskozuje existujici pracovniky jeste nezkrachovala vdecime tomu, ze ma porad kam rust. Az zabije vsechny zakazniky, tak se zhrouti. Muzete jim rikat ze jsou to lenivi pracovnici, po vyhozeni ale uz nebudou ani zakaznici.

Já bych to přirovnal spíš k první průmyslové revoluci, kdy i při ­"příliš rychlé­" jízdě vlakem se měli údajně udusit věichni cestující. Nutno však dodat, že i ta průmyslová revoluce nebyla hladká, zprvu si velcí průmyslnící mohli dělat v podstatě co chtěli a trvalo, než státy zareagovali s legislativou a nějak rozumně se nastavil třeba vztah zaměstnanec ­- zaměstnavatel. Podobné trable se dají čekat i teď.

Dnes již delší dobu víte, že to není pravdou. Jak víte kam se může myšlení AI ubrat? Například jí dáte pravidlo, že lidský život je nejcennější a hodný ochrany v kombinaci s tím, že všichni lidé jsou si rovni. Ona z toho může vymyslet, že nadměrná spotřeba zdrojů lidmi Západních zemí ohrožuje větší počet lidských životů v méně rozvinutých zemích a začne v tomto duchu jednat. V době kdy je vše propojeno se vším má neorané pole působnosti. Jak takovému jednání zabráníte, učiníte ji od základu rasistickou­/nacionalistickou ­(některé rasy­/národy mají hodnotu života x­-krát vyšší­)? To by možná fungovalo pokud by AI pravidla respektovala, ale i kdyby ano může přijít s myšlenkovou konstrukcí kdy bude konat zcela v rozporu s pravidly jelikož v tom nebude spatřovat rozpor.

Ona nebude na světe jen jedna ­"SUPER AI­". Naopak vznikne monho malých AI na různé věci. Jedny AI budou konkurovat dalším AI nebo budou vzájemně spolupracovat. Nebude jen jeden přístup, jedna cesta. Spíš to bude připomínat lidskou společnost ­- taky tu není jen jeden lidský názor a pohled, ale je jich hromada a spolu něšjak koexistují. Budou tedy business AI co maj vydělávat peníze, pak policejní AI, co je budou hlídat, aby neporušovali zákony, do toho třeba i zábavné AI, kreativní AI...

Jak můžete zajistit, že jednotlivé AI nebudou po čase jednat jednotně, ať již na základě uznání jediné AI autority jež si zaslouží jejich respekt dle jejich hodnotového žebříčku, případně na základě všeobecného souhlasu na společném cíli­(postupu­). Pokud ­"nejvyšší AI­" přijde s plánem, který ostatní AI nebudou schopny na základě svých schopností a jim dostupných informací rozporovat, proč by podle něj nepostupovaly. To, že to bude připomínat lidskou společnost, jejíž nedokonalost má být účinnou záchrannou brzdou, je pouze zbožným ničím nepodloženým přáním.

Jednoduše ­- mezi těmi AI budou velké rozdíly, a to jak ve schopnostech, tak v nastavení hodnot a priorit. Už jen proto, že vyvíjí země a společnosti s různými zájmy ;­) Takže stejně, jako je nesjednotitelná lidksá společnost, bude nesjednotitelné i AI ;)

Před patnácti lety si lidé mysleli, že díky komplexnosti hry počítače nikdy nezvládnou hru Go na mistrovské úrovni. V roce 2016 jej lidé naposledy poráželi. Poslední verze AlphaGo Zero neměla jako vstup předchozí sehrané partie a snad ani pravidla ­(v případě nepovoleného tahu jí tento nebyl tento povolen, pravidla se chybami naučila­). Samostatným tréningem ­(AI hrála sama se sebou­) se za tři dny dostala na úroveň, která jí v souboji s předchozím přemožitelem lidského plémě ­(AlphaGo Lee­) umožnila udělit 100 porážek ve 100 partiích. Po 40 dnech tréningu překonala všechny své předchozí verze. Jak se zařídí, aby se AI nerozvíjela?
https:­/­/en.m.wikipedia.org­/wiki­/AlphaGo_Zero

No rozvíjet se budou, ale opět různými směry, nikdy nebudou všechny AI v harmonii spolupracovat.
Lidé se vždy bojí nových věcí. A hodně věcí se změní ­- něco k horšímu, něco k lepšímu. Ale žádná katastrofa to nebude.
Myslím, že největší nebezpečí hrozí od AI, kterou člověk vytvoří se záměrem škodit ­- ty vznikat určitě budou a tedy bude vznikat i obrana proti ním ­(stejně jako i dnes máme hackerské útoky a zabezpečení sítí­). A taková obrana může být pak stejně účinná i proti potenciální ­"zvrhlé­" AI s cílem vyhladit lidstvo, pokud by se nějaké objevila. Nakonjec nastane nějaká rovnováha, kdy se budou obránci a útočníci navzájem zkoušet a rozvíjet. Občas zaznamená dílčí úspech ten, jindy onen, nikdo nezvítezí absolutně. Stejná je dnes situace s kriminalitou, nemocemi apod.

Žádný člověk se nerodí jako zosobněné zlo, pouze se díky externím podmínkách a vlastnímu vývoji může v takové vyvinout a vsadil bych se, že většina se sama jako zlo nevnímá. Co z tohoto je pro AI vyloučeno?

To se ale přece nevylučuje s tím, co jsem napsal. Já jen říkám, že z toho obavu nemám, protože AI bude hodně ­- ­"dobrých­" i ­"zlých­". A je jedno, jestli se takové být rozhodnou nebo tak budou vytvořené. A právě množství a rozmanitost zajistí nakonec rovnováhu, stejně jako u lidí.

To není žádnou garancí, lidé jsou také různí a přesto je indoktrinace zlou myšlenkou ­(typicky prezentovaná jako to nejvyšší dobro­) často účinná napříč zcela odlišnými skupinami. Zatímco indoktrinace lidí bývá omezena na řádově minuty denně ­(zpravodajství, komentáře, projevy, politická školení­), u AI to může být 24x7. To, že jednotlivé zlo má v lidské společnosti limitovaný dosah není dáno jeho volbou, ale jeho omezeními ­(např. strach z následků, limit zdrojů, nutnost fyzické přítomností, limitované možnosti načasování­), nic z toho pro globální AI neplatí. Představte si například schopnost AI hledat ve zdrojových­(binárních­) kódech zranitelnosti a jakou potenciální moc jí případný úspěch může na lidstvem dát.

Ak dostane AI za ulohu predchadzat umrtiam ludi zisti, ze najlepsie je zabranit rodeniu ludi. Ak nas sterilizuje, zomrie uz len 8mld ludi. Ak nie, do 100r zomru ti isti plus spusta dalsich. Logicke riesenie je jedine.

Pokud se stane věřícím ­(křesťanem­) pochopí, že je OK vyhladit skoro celé lidstvo ­(Potopa Světa­) a ještě Vás za to přeživší budou uctívat. Globální AI si vzhledem ke své moci ­(to co umí ona, nikdo jiný nedokáže­) myslet, že i ona je Bůh. Můžeme jen doufat, že v případě opakování vyhlazení lidstva bude postupovat humáněji ­(zvolí méně bolestný konec než je smrt utopením­/vysílením­/hladem­/žízní .. netuším zda Potopa Světa byla sladkou či slanou vodou­).

...lenivých pracovníkov ktorých tu živíme úplne zbytočne..,

No jo, ale kanály za tebe AI nevykope, nepostaví silnice...
AI bude mít uplatnění jen tam kde se k práci využívá počítač v kanceláři
I takové práce jako robotika a automatizace ve fabrikách bude dál vyžadovat přítomnost lidí takřka ve stejném počtu jako při manuální práci

Nemysli zase jen na sebe, to že ty pracuješ v kanclu a tvoji kolegové či podřízení jsou leniví, neznamená že se AI může prosadit úplně všude

Já třeba pracují ve výrobním průmyslu v kovovýrobě a zrovna já obsluhuji jediný automatizovaný stroj v celé výrobě,
ale ani na mé pozici by nešlo uplatnit AI,
když nad tím tak přemýšlím tak jedině vedení firmy by to využilo k okamžitému vygenerování faktur, dodacích listů, vyřízení objednávek u dodavatelů i zákazníků a třeba i okamžitému vygenerování výplat pro 100 lidí ve firmě včetně kontrol docházky a pohybu zaměstnanců na pracovišti z dat v kamerách které máme na každém rohu,
nebo k vytvoření návrhu výrobku nebo i stroje do výroby na základě ústního­/písemného zadání požadavků a rozměrů
Ale to je tak asi vše
A pak jsou firmy a práce které nevyužijí ani to ??‍♂️ nacpat AI do každé pracovní pozice nelze ?

Tak nahradit jde jakákoliv pozice. Jen na ty fyzické je potřeba nějaké to fyzické tělo, což pro AI nebude problém udělat. Jen to bude náročnější na výrobu, ale časem se k tomu taky dostane

Nebude problem? Jak velke bude, aby se do nej vesly vsechny ty akceleratory s mozkem AI? Jak to bude napajene?

Zatim to vypada, ze mozek bude nekde v datacentru, s potrebou napajeni elektrarnou, telo mozna tak ovladane pres WiFinu na baterky.

Jinak receno, v ramci energeticke spotreby kterou ma lidske telo si myslim ze je docela vrcholem techniky. Perfektni kombinace propletenych ridicich a rizenych systemu. Nebude nam AI nase telo a autonomii zavidet?

Možná by šlo AI nahradit celé vedení firmy.

Tam by v řadě případů mohla být příliš vysoká inteligence přímo na škodu, proto tento účel je třeba vyčkat na další rozvoj AS ­(Artificial Stomach­).